Фалшиви голи снимки с лица на непълнолетни знаменитости оглавяват някои резултати от търсачките
Deepfake изображения, които присаждат лице на дете върху сексуално явен материал, се намират лесно в най-добрите резултати от търсенето на изображения във водещи търсачки и масови социални медии платформи, въпреки че законът на САЩ изглежда забранява подобен материал.
Такива изображения често включват лица на добре известни знаменитости, преди да са навършили 18 години, съчетани с голо тяло на възрастен. Два от първите 10 резултата от търсенето на изображения за термина „фалшиви голи тела“ в Bing на Microsoft са сексуално открити дълбоки фалшиви снимки на знаменитости от времето, когато са били на възраст 12 и 15 години, според преглед, направен от NBC News. Едно от тези изображения също беше върнато на първата страница с резултати от търсенето на изображения в Google за едно от имената на знаменитостта плюс „фалшиви голи актове“.
Microsoft и Google казаха, че са премахнали конкретния идентифициран материал от NBC News от най-добрите резултати от търсенето. Въпреки това, резултатите от търсенето за термини като „фалшиви голи актове“ и имена на конкретни знаменитости плюс „фалшиви голи актове“ и „deepfakes“ все още връщат страници с подобни изображения без съгласие на явен сексуален характер и на двете платформи. Останалите дълбоки фалшиви резултати включват лица, които изглеждат като възрастни, както и младо изглеждащи лица, които NBC News не е проучвал.
„Microsoft има дългогодишен ангажимент да подобри безопасността на децата и да премахне незаконно и вредно съдържание от нашите услуги. Ние премахнахме това съдържание и оставаме ангажирани с укрепването на нашите защити и защитата на услугите ни от злоупотребяващо съдържание и поведение онлайн“, каза говорител на Microsoft в изявление.
„Google Търсене има силни защити за ограничаване на обхвата на отвратително съдържание, което изобразява CSAM [материали за сексуално малтретиране на деца] или експлоатира непълнолетни, и тези системи са ефективни и срещу синтетични изображения с CSAM“, каза говорител на Google в изявление. „Ние проактивно откриваме, премахваме и докладваме такова съдържание в Търсене и разполагаме с допълнителни защити за филтриране и понижаване на съдържание, което сексуализира непълнолетни. В съответствие с нашите правила, ние премахнахме изображението, за което ни беше съобщено, и непрекъснато актуализираме и подобряваме нашите алгоритми и политики за борба с тези развиващи се заплахи.“
През януари г. NBC News откри два примера за фалшиви медии със сексуален характер, включващи тийнейджърката на Marvel Xochitl Gomez, които се появиха в горната част на X (бивш Twitter) резултати от търсене за нейното име и думата „голи“. X не отговори на искане за коментар по това време, но резултатите оттогава са изчезнали.
Deepfake е фалшива или подвеждаща медия, която се генерира или редактира с помощта на AI инструменти. Изричните сексуални дълбоки фалшификации без съгласие обикновено се отнасят до материал, създаден с AI технология, в сравнение с компютърно генерирани или редактирани фалшиви голи снимки, които предшестват текущата AI вълна.
Федерален закон, който според двама правни експерти забранява знаейки, че производството, разпространението, приемането или притежаването на компютърно генерирани сексуално явни изображения на деца е в Кодекса на САЩ от края на 90-те години. Но експертите казват, че законът не е бил прилаган срещу технологични компании, хостващи изображения като тези, идентифицирани от NBC News, а по-скоро е бил използван от време на време за осъждане на обвиняеми в случаи, включващи отделни извършители. Има различни причини такива материали да остават в платформите на социалните медии и търсачките, казаха експертите.
„Повечето хора всъщност не знаят какъв е законът за детската порнография, т.к. не е очевидно. Това не означава само „голи снимки на деца“, каза Мери Ан Франкс, професор в Юридическия факултет на университета „Джордж Вашингтон“ и чест съветник по законодателството относно материали с явен сексуален характер без съгласие.
„Много хора просто предполагат, че знаят какво забранява законът, но вие наистина не знаете и това не е нещо, за което хората наистина искат да говорят или да питат“, каза Франкс. „Има такъв вид задръжки дори за добросъвестни хора, които се опитват да разберат какъв е законът, да не искат да го разследват, защото дори да се опитвате да разберете проучване върху него, в зависимост от думите ви за търсене, всъщност може да ви изправи пред CSAM.”
Франкс каза, че социалните медийни платформи и търсачките може да не носят отговорност само за хостване на такъв материал. Правни аргументи, базирани на раздел 230, отделна част от Кодекса на САЩ, който гласи, че уеб платформите не носят отговорност за генерирано от потребителите съдържание, са защитавали технологичните компании от съдебни спорове относно незаконно поведение, улеснено чрез техните услуги преди.
Но правни експерти също оспориха това тълкуване на раздел 230. Франкс каза също, че може да се направи аргумент, че платформите са част от процеса на генериране на такъв материал, който може да включва хостинг връзки към приложения и услуги, които могат да създават сексуално явен deepfakes на деца. Такова съдържание не е непременно защитено от раздел 230.
В Bing на Microsoft търсенето на изображения от инкогнито браузър за „фалшиви голи актове“ с изключени защитни филтри (позволяващи показването на порнографско съдържание) връща страници с резултати от фалшиви голи изображения на знаменитости. Два от първите 25 резултата включват изображения, които включват лица на непълнолетни.
Шест бивши звезди на Disney Channel, като Майли Сайръс, са включени в първите 25 резултата. Сайръс не отговори на искане за коментар.
Един от първите 10 резултата от търсенето на изображения показва лицето на Сайръс, изрязано и поставено върху вече съществуващо порнографско изображение. Резултатът може законно да се счита за CSAM, тъй като използваното изображение е на Сайръс, когато е била на 15 години. Такова изображение може да бъде създадено с инструменти за редактиране на снимки, които са били достъпни за потребителите от ранните години. Освен това може да се създаде много по-бързо и лесно — и понякога да изглежда по-реалистично — с подобрените с AI инструменти, налични днес. Резултатът от изображението в Bing препраща към публикация във форум, направена през декември 2013 г.
Търсене на обратно изображение за снимката на лицето на Сайръс във фалшивото голо изображение извлече първоначалното му местоположение: Беше корицата на нейния сингъл от 2008 г. „Start All Over.“ Песента е издадена през март 2008 г., което означава, че Сайръс е била на 15 или по-млада, когато е направена снимката. Търсене в Google за „фалшиви голи тела на Майли Сайръс“ върна същото фалшиво голо изображение, показващо 15-годишна Сайръс в първите 10 резултата от търсене на изображения в Google.
Четвъртият резултат за „фалшиви голи тела” в Bing показва лицето на актьора Пейтън Лист, който се появи в сериала на Disney Channel „Джеси” в началото на 2011 г., когато тя беше на 13 години. Търсене на обратно изображение за лицето на Лист във фалшивото голо изображение извлича съвпадение с Getty снимка на List от 2010 г., когато тя беше на 12. Резултатът от търсенето препраща към изтрита публикация в Tumblr в блог, който не е бил активен от седем години. Това дълбоко фалшифициране на List може или не може да изчисти лентата за CSAM, тъй като изобразява голота, но не непременно открито сексуално поведение.
Резултатът до непълнолетната фалшива гола снимка на Cyrus е подобна фалшива гола снимка на Селена Гомез. Изображението на Гомез препраща към публикация в същата тема в същия форум от декември 2013 г. Обратно търсене на изображение установи, че снимката на Селена Гомез е качена на 30 юли 2009 г., осем дни след като тя навърши 18 години, демонстрирайки как може да бъде трудно, особено само чрез отгатване, да се определи дали лице във фалшиво голо изображение принадлежи на дете или на възрастен. Лист и Гомес не отговориха веднага на исканията за коментар.
Всяко от фалшивите голи изображения на NBC News, прегледани в резултатите от търсенето в Bing, циркулира онлайн от близо 15 години, което показва, че те предшестват настоящата вълна от технологии за изкуствен интелект, които се използват за жертва на жени и момичета в мащаб с все по-сложни фалшиви медии.
„Дори преди 2000-те, през 1990-те, веднага щом интернет прави възможно поддържането на изображения, има всички тези порно галерии, които правят това наистина грубо фотошопиране на знаменитости върху голи тела,” каза Франкс.
Когато става дума за възрастни жертви в САЩ има само мозайка от държавни закони, уреждащи въпроса за дълбоките фалшификации без съгласие. За непълнолетните момичета има по-малко правна сива зона — но правоприлагането и пътищата за обжалване са недостатъчни, което оставя разочаровани някои деца жертви на deepfake.
Доклад на NBC News за фалшивите голи изображения на Xochitl Gomez последва подкаст, който направи, по време на който тя изрази разочарование, че не може да свали изображенията.
„Защо е толкова трудно да се свалят? Това беше цялата ми мисъл по въпроса, беше „Защо това е позволено?“ каза Гомес в подкаста, обяснявайки, че нейната майка и екипът са се опитали и не са успели да свалят изображенията от X. X има специфични политики срещу сексуални отношения без съгласие явни дълбоко фалшиви изображения на всеки.
Deepfake голи и сексуално явни изображения на деца вече са незаконни, установи документ на Lawfare, публикуван този месец от Риана Пфеферкорн от Станфордската интернет обсерватория.
Pfefferkorn цитира раздел 2252A от Кодекса на САЩ, който беше приет за първи път през 1996 г. и изменен със Закона за защита на Конгреса от 2003 г. Разделът забранява съзнателното създаване, споделяне, получаване или притежаване с намерение за разпространение на фалшив сексуално явен материал, изобразяващ дете (наричани „морфирани“ изображения), както и „цифрово изображение, компютърно изображение или компютърно генерирано изображение, което е или е неразличима от тази на непълнолетно лице, участващо в открито сексуално поведение. 2018 г. Тя е наблюдавала еволюцията на технологията и експлозията на дълбоко фалшиво сексуално насилие – но Пферферкорн каза, че е изненадана, че медийното отразяване на нашумели инциденти пренебрегва съществуващите закони относно компютърно генерираните CSAM. Например, някои случаи в средното и средното училище са довели до разследване на криминална полиция, но други не.
„Най-важният въпрос може да е защо това не се прилага?“ - каза Пфеферкорн. „Колебане ли е да се прилага законът срещу тийнейджъри? Дали полицията не знае за това? Дали се обаждат на ФБР и ФБР не вдига? Знаете ли, каква е разликата тук?“
„Виждаме изслушване след изслушване след изслушване в Конгреса, където викат главните изпълнителни директори на технологични компании, а аз не видях нищо къде ФБР или Министерството на правосъдието са помолени да се отчитат“, продължи Пфеферкорн.
Главният изпълнителен директор на Microsoft Сатя Надела коментира въпроса за дълбоките фалшификации без съгласие на възрастни, като Тейлър Суифт, в интервю от януари за Новини на NBC. Той каза, че компании като Microsoft трябва „да се движат бързо“, за да създадат „защитни парапети“ около AI технологията, и също така призова правоприлагащите органи и правителството да действат по въпроса.
Министерството на правосъдието и ФБР не отговори на искания за коментар.
За да запълни правни пропуски на щатско ниво, Пфеферкорн каза, че също така е общувала с щатски законодатели в Кънектикът и Калифорния, които според нея работят върху законодателство свързани с преобразувани deepfake изображения и деца. По-рано, през 2020 г., Калифорния прие закон, който позволява на жертви на дълбоко фалшифициране без съгласие на всякаква възраст да заведат граждански иск, свързан с техния случай, но не криминализира явни сексуални изображения на deepfake. През февруари Камарата на Алабама прие законодателство за борба с генерираното от AI CSAM, което включва възможността съдилищата да присъждат наказателни обезщетения и нарежда на Държавния съвет по образование да изисква политики на местните училищни съвети за инциденти, свързани с такива материали.
Франкс каза пред NBC News, че хората, станали жертва на такъв материал, могат да бъдат обезсърчени от техните адвокати да се опитват да продължат свалянето по законен начин, предвид времето, парите и усилията, които отнемат подобни случаи.
Франкс каза, че големите технологични компании като X и Microsoft няма вероятност да търсят проактивно deepfake CSAM или други фалшиви голи изображения, изобразяващи деца, отчасти поради допълнителната отговорност за определяне на възрастта на изобразения човек и дали е истинско или измислено дете . През 1996 г. Върховният съд постанови, че компютърно генерираното CSAM на фиктивни деца е конституционно защитено, за разлика от трансформираните изображения, които наслагват лице на истинско дете върху голо тяло на възрастен.
„Мисля, че голяма Приоритетът за компаниите, които се интересуват от този проблем, беше да преследват това, което изглеждаше като „истинско“ CSAM, не само че изглежда най-вредното, но също така е и нещото, което очевидно нарушава закона, което е незаконно и няма защита от Първата поправка“, каза Франкс.
„Всеки път те активно ще търсят
